What to Edit Next: Visually Aligned Image-Editing Follow-Up Suggestions in Conversational Systems
视觉对齐的图像编辑跟随建议:三阶段学习框架
🧭 多模态 query 推荐 · RL 对齐 ★ 深度解读
Alibaba Qwen Business Unit · Southeast University
三阶段框架结合人工意图、点击偏好与源-目标视觉验证,将视觉不一致率从3.7%降至0.9%,在线CTR提升32.70%
📌 工作参考价值(4 点)
- 位置感知点击偏好对:利用点击建议仅与上方未点击建议配对,减少展示位置偏差,适合任何有曝光顺序的推荐场景(如电商搜索推荐)。
- 多目标GRPO优化:组合点击偏好、格式有效性、PPL、内容感知长度、列表内多样性五维奖励,使用动态文本侧权重调整长度与多样性压力,可迁移至生成式推荐列表的强化对齐。
- 图像优先源-目标验证:将编辑指令拆解为所需源(必须存在)与目标(不应已满足),分步检查视觉条件,可作为多模态Agent的动作校验器,避免幻觉推荐。
- SFT数据构建流水线:从真实会话与人工意图表中用大模型生成候选,再经多级验证形成监督信号,解决了缺乏推荐标签时的冷启动问题。